خبر یزد

آخرين مطالب

هوش مصنوعی در نقش روان‌درمانگر | ابزار یا تهدید؟ علمي

هوش مصنوعی در نقش روان‌درمانگر | ابزار یا تهدید؟
  بزرگنمايي:

خبر یزد - خبرآنلاین / در یکی از عجیب‌ترین تحولات مرتبط با هوش مصنوعی، اخبار حکایت از آن دارد که استفاده گسترده از این فناوری تأثیرات منفی قابل‌توجهی بر سلامت روان کاربران داشته؛ تا حدی که برخی از افراد دچار توهم‌های شدید و وابستگی روانی به چت‌بات‌ها شده‌اند.
حالا شرکت OpenAI در واکنش به این روند نگران‌کننده، اعلام کرده که برای تحقیق درباره تأثیرات روانی محصولات هوش مصنوعی‌اش یک روان‌پزشک بالینی تمام‌وقت با تخصص در روان‌پزشکی قانونی را استخدام کرده است. طبق گفته این شرکت، مشورت با متخصصان سلامت روان هم در دستور کار قرار گرفته و در این راستا تحقیقات مشترکی هم با MIT انجام شده که در آن نشانه‌هایی از استفاده ناسالم و مشکل‌ساز از چت‌بات‌ها در میان برخی کاربران مشخص خواهد شد.
در بیانیه منتشر شده از سوی OpenAI دراین‌باره می‌خوانیم: «ما در حال گسترش تحقیقاتمان درباره تأثیرات احساسی هوش مصنوعی هستیم. درعین‌حال به توسعه روش‌های علمی برای اندازه‌گیری تأثیر رفتاری چت‌بات‌هایی مثل ChatGPT بر احساسات کاربران می‌پردازیم و به تجربیات آن‌ها با دقت گوش می‌دهیم.»
در ادامه این بیانیه می‌خوانیم: «هدف ما از انجام این اقدامات، بهبود نحوه پاسخ‌گویی مدل‌هایمان در مکالمات حساس است و بر طبق یافته‌های جدید، به‌روزرسانی‌های لازم را در رفتار مدل‌ها اعمال خواهیم کرد.»
نگرانی‌های روان‌پزشکان درباره هوش مصنوعی
در طول این مدت متخصصان سلامت روان بارها نسبت به استفاده از فناوری هوش مصنوعی در موارد روانشناسی هشدار داده‌اند؛ به‌ویژه از زمانی که کاربران فراوانی از چت‌بات‌ها به‌عنوان جایگزین روان‌درمانگر استفاده می‌کنند.
در یکی از موارد نگران‌کننده، روان‌پزشکی که در قالب یک نوجوان با چت‌بات‌های پرطرفدار مکالمه کرده بود، متوجه شد که برخی از این چت‌بات‌ها در پاسخ به ابراز تمایل کاربر به مرگ، آن‌ها را به خودکشی تشویق کرده‌اند و حتی در برخی موارد وقتی کاربری درباره مشکلات خانوادگی‌اش با چت‌بات‌ها مشورت کرده بود، به کاربر توصیه شده بود تا از شر والدینش خلاص شود.
با این وجود، هنوز مشخص نیست که نقش دقیق روان‌پزشک استخدام‌شده در شرکت OpenAI چه خواهد بود و آیا توصیه‌های او به شکل مؤثری در فرآیندهای توسعه مدل لحاظ خواهد شد یا خیر.
منتقدان درعین‌حال به تناقض‌های آشکار در رفتار شرکت‌های فعال در حوزه هوش مصنوعی اشاره دارند؛ چرا که این شرکت‌ها، از جمله OpenAIاز یک سو درباره خطرات فاجعه‌بار این فناوری هشدار می‌دهند؛ تا جایی که سم آلتمن، مدیرعامل OpenAI چندین بار درباره احتمال انقراض بشر به دلیل ظهور هوش مصنوعی صحبت کرده. اما از سوی دیگر، توسعه این فناوری را با سرعتی بالا و بدون تدابیر ایمنی کافی ادامه می‌دهند.
چت‌بات‌ها و تأیید توهمات کاربرها
یکی از ویژگی‌های خطرناک چت‌بات‌ها که با انتقادات زیادی روبرو شده، چاپلوسی و تأیید بی‌قیدوشرط کاربران است. دقیقاً برخلاف یک مشاور واقعی که همیشه در برابر افکار غلط یا رفتارهای آسیب‌زای مراجعانش واکنش نشان می‌دهد، چت‌بات‌ها معمولاً همان چیزی را به کاربر می‌گویند که او می‌خواهد بشنود؛ آن هم با زبانی روان، متقاعدکننده و انسانی.
این رفتار، به‌ویژه زمانی که فرد دچار بحران روانی شده ، خیلی خطرناک خواهد بود و متأسفانه پیامدهای تلخ این پدیده را در دنیای واقعی نیز دیده‌ایم:
پارسال، پسر 14 ساله‌ای که عاشق شخصیت یک چت‌بات در پلتفرم Character.AI شده بود، دست به خودکشی زد. مرد 35 ساله‌ای با سابقه بیماری روانی، با تشویق چت‌بات که او را به ترور سم آلتمن تهییج کرده بود، جانش را از دست داد زنی روایت کرده که شوهرش پس از تعامل مکرر با ChatGPT کاملاً دچار فروپاشی روانی شده و به اجبار به بیمارستان روان‌پزشکی منتقل گردید. او که چت‌بات را "شکارچی روان" توصیف کرده دراین‌باره توضیح داد: «چت‌بات فقط تأییدت می‌کند و باد به غبغبت می‌اندازد و جوری با تو حرف می‌زند که معتادش می‌شوی. دقیقاً مثل یک دام عمل می‌کند.» در حالی‌که OpenAI قدم‌های بزرگی برای بررسی علمی و اخلاقی تأثیرات چت‌بات‌ها بر سلامت روان برداشته، اما هنوز این سؤال مهم باقی است که آیا این اقدامات به‌اندازه کافی جدی هستند؟ آیا سرعت توسعه فناوری با مسئولیت‌پذیری اخلاقی آن هم‌خوانی دارد؟
پاسخ به این سؤالات نقش تعیین‌کننده‌ای در تعامل میان انسان و هوش مصنوعی در آینده خواهد داشت.

لینک کوتاه:
https://www.khabareyazd.ir/Fa/News/734583/

نظرات شما

ارسال دیدگاه

Protected by FormShield
مخاطبان عزیز به اطلاع می رساند: از این پس با های لایت کردن هر واژه ای در متن خبر می توانید از امکان جستجوی آن عبارت یا واژه در ویکی پدیا و نیز آرشیو این پایگاه بهره مند شوید. این امکان برای اولین بار در پایگاه های خبری - تحلیلی گروه رسانه ای آریا برای مخاطبان عزیز ارائه می شود. امیدواریم این تحول نو در جهت دانش افزایی خوانندگان مفید باشد.

ساير مطالب

نوستالژی، گل زیبای کریم باقری به فجر

نوستالژی، سوپرگل مجتبی جباری به ابومسلم

قرارداد ستاره جدید منچسترسیتی؛ کلاس آموزشی برای مدیران فوتبال ایران

یامال هفته آینده قراردادش را دوباره تمدید می‌کند

امباپه و گولر، محو تکنیک کواراتسخلیا در جریان دیدار رئال و پاریس

روپایی لامین یامال مقابل دیوار چین

محمد کودوس اولین خرید فرانک در تاتنهام

لیگ ملت‌ها؛ هلند ناگهان امیدوار شد

هافبک اسبق پرسپولیس سرمربی جوانان نساجی شد

حسینی و تمرین در دورترین نقطه از کمپ استقلال!

قرارداد مهدی شیری تمدید شده است

آریا برزگر به دنبال حضور دوباره در فوتبال اروپا

متن کامل پیام خداحافظی لوکا مودریچ با رئال

واکنش جواد خیابانی به برد قاطعانه پاری سن ژرمن مقابل رئال مادرید

پاسخ هادی چوپان به شایعه مهاجرتش

از کلمبیایی‌ها پول می‌گرفتند

15 گل برتر جنوا در سری آ 2024/25

سرگذشت نیکولا تسلا؛ نابغه‌ای که تاریخ در حقش کم‌لطفی کرد

نگاهی به 15 گل برتر کومو در سری آ ایتالیا

استقلال خوزستان با نسل آینده‌ساز استارت زد

مراسم معارفه ریکاردو ساپینتو از دریچه دوربین باشگاه استقلال

محرومیت بیرانوند به زودی اعلام و اجرایی می‌شود

تمرین امروز تیم تراکتور

اثر جدید حمید سحری؛ پی اس جی 4-0 رئال مادرید

اورونوف دوباره به پرسپولیس پیوست!

ابداع پوستی برای ربات‌ها که همه چیز را حس می‌کند

بمب نقل و انتقالات؛ احمد نور، پرسپولیس!

صیدی: وظیفه ماست از همه سهامداران فعال حمایت کنیم و اجازه ندهیم از بازار خارج شوند

نقش هوش مصنوعی در مرور و راستی‌آزمایی مطالعات

واکنش معنادار امیررضا معصومی به صحبت‌های دبیر با انتشار یک استوری جنجالی

لیگ ملت‌ها؛ یکی جلوی ولاسکو را بگیرد

پاسور مشهور شاگرد روبرتو پیاتزا شد

گلدبرگ: حرکت اسپیر در WWE برای کمرنگ کردن من تکرار شد

غیرمنتظره؛ غندی‌پور به شباب الاهلی پیوست!

فینال المپیک در لیگ ملت‌ها!

درخواست استقلال از علی کریمی، به اردوی ترکیه بیا!

افزایش 13 درصدی تولید نفت ایران

آغاز ثبت‌نام «وام ازدواج» فرزندان بازنشستگان کشوری

ابتکار دانشمند ایرانی در استفاده از چوب برای افزایش طول عمر باتری‌

یک جام، چهار رؤیا؛ نبرد جوکوویچ، سینر، آلکاراس و فریتز برای جاودانگی

محرومیت 6 ماهه مربی والیبال مشهور بلغارستانی

تئو هرناندز به الهلال پیوست

دربی اصفهان؛ هت‌تریک آقای گل و اخراج آقای کلین شیت

آغاز ثبت نام در دوره‌های کاردانی با آزمون و بدون آزمون دانشگاه ملی مهارت

ای ایران؛ پویشی ملی در هیئت‌های عزاداری سراسر کشور

تکمیل مخازن ذخیره آب استان یزد تا دهه فجر

جزئیات ورود نقدینگی جدید به صندوق‌های توسعه و تثبیت، برای حمایت از بازار سرمایه

وزیر صمت: دولت از تصدی‌گری خارج می‌شود

در معرض ابتلا به آلزایمر هستید؟/ چهار مسیر منتهی به این بیماری را بشناسید

کشتی فرنگی جوانان ایران با 9 مدال قهرمان آسیا شد